From Computer Power and Human Reason
Original Publication
Joseph Weizenbaum, Computer Power and Human Reason: From Judgment to Calculation, pp.1-16, San Francisco: W.H. Freeman and Company, 1976
邦訳
秋葉忠利訳, 『コンピュータパワー-その驚異と脅威-』本文, pp.1-18, サイマル出版会, 1979
前書きのあとの”はじめに”部分が該当箇所
歴史的な位置付け
コンピュータが一部の研究機関や政府・軍事機関でしか使えないような1970年代後半の社会において、人工知能盲信に警告を発し、人間理性の復権を呼びかけ、欧米で論争の的になった問題作である。人工知能エンジンSiriがイライザの話をしてくれるなど、現代においても繋がりやリスペクトが見られるコンテンツは存在する。 コンピュータに関する悲惨な警告は、表面的にしかNew Mediaを検討していない、またはNew Mediaを経験したことのあるコンピュータを使用しない作成者から頻繁に発行されている。
ワイゼンバウムは、コンピューティング以外のオブザーバーおよびコメンテーターとして執筆していない。
彼はコンピューティングの歴史の中で最も有名なチャッターボットをプログラムし、彼自身が設計したシステムの危険な使用を認識した。
“ELIZA”と呼ばれるこのシステムは、"Doctor"と呼ばれる一連のスクリプトを実行し、心理療法士になりすまして悪名高くなり、コンピューティングについての彼の考えを深く再評価する流れを作った。 医者はだまされなかったが、その一連の指示により、”ELIZA”は、ユーザーに提供されたコメントをすべて振り返るように求める当たり障りのない”Carl Rogers学派”のふりをして、おそらく会話を続けることができた。 2000年に思考機械が登場するというチューリングの推測は、より限られた文脈の範囲内では正しくなかったかもしれないが、コンピュータがインターフェイスとして言語を使用して人々ともっともらしい対話をするというチューリングの予測は、ワイゼンバウムの1960年代の仕事によってずっと前に裏付けられた。 機械が私たちに収入をもたらす仕事だけでなく、私たちが人類と密接に関連付けている認知的および感情的な機能も引き継ぐという懸念は、コンピュータ時代の特別な心配である。
一つの懸念は医師が「”ELIZA”は実際のセラピストとして雇用されるべきである」と示唆していること。この懸念はワイゼンバウムによって強調されている。 Neil Postmanは本「Technopoly」で、ワイゼンバウムが人類の「これまで以上に機械的なイメージ」と呼んでいるものを探求し、コンピューティングの影響は特定のハードウェアおよびソフトウェア技術を考察することに見られるだけでなく、コンピューティングでの使用に適した言語を採用する方法にも見られることに注目している。 Further Reading
Espen Aarseth. "The Cyborg Author: Problems of Automated Poetics." Cybertext: Perspectives on Ergodic Literature, 129-141. Baltimore: Johns Hopkins University Press, 1997.
Kenneth Colby. Artificial Paranoia: A Computer Simulation of Paranoid Processes. New York: Pergamon Press, 1975. Janet Murray. "Eliza's Daughters." Hamlet on the Holodeck: The Future of Narrative in Cyberspace, 214-247. New York: Free Press, 1997. Neil Postman. "The Ideology of Machines: Computer Technology." Technopoly: The Surrender of Culture to Technology. New York: Simon & Schuster, 1995. Sherry Turkle. "Taking Things at Interface Value." Life on the Screen: Identity in the Age of the Internet, 102-124. New York: Simon & Schuster, 1995. 本論：From Computer Power and Human Reason(コンピューターの力と人間の理由から)
「社会主義の下では、科学のための科学という概念は消滅する。科学者の関心は当然、現在進行中の五ヵ年計画の問題に向いてゆくからである」
と言われ自分の意見との違いに大きなショックを受けた。これを機にポラーニは哲学上の問題に取り組むことになった。ワイゼンバウムがこの1コマを持ち出したのには2つの理由がある。
1. 誰かが明確に単純明瞭な考えを述べて、それが誰にでも簡単に受け入れられるような考えであっても、時には、それが、嵐吹きすさぶ海峡を示す標識灯になっていることを示すため
単純明瞭な考え：科学は独創的で、科学における創造的行為は芸術における創造的行為に匹敵するもので、創造は主体性を持つ個人からのみほとばしりでるものであるという考え
2. ワイゼンバウムがこのような歴史の一コマを再体験しているように感じるから
ワイゼンバウムのショックは、政治家によってではなく、彼が行った研究を誤って解釈し続ける人々によってもたらされた。
若い女性(以降w)「男ってみんな同じ。」
w「男って、いつもあれをしろ、これをしろって、うるさくてしようがないんですもの。」
e『何か特別な例を挙げてください』
w「そうね、ボーイフレンドがここに来るようにって言ったの。」
e 『ボーイフレンドがあなたをここに来させた。』
w「彼は、私がいつでもふさぎ込んでいるって言うんです。」
e『ふさぎ込んでいるとは、お気の毒に思います。』
w「ほんとなんです。私は幸福ではありません。」
e『ここにくることによって、不幸せから逃れるための、助けが得られると思いますか？』
w「何か助けが必要、それだけは確かです。」
e『助けを得るということは、あなたにとってどういう意味がありますか？』
w「たぶん、母との折合がよくなると思います。」
e『あなたの家族について、もっと教えてください。』
...以降省略(『コンピュータパワー-その驚異と脅威-』)
ELIZAは"Doctor"として、MIT界隈ですぐに有名になった。それは、このデモンストレーションが物凄く分かりやすい上に体験型だからである。 ワイゼンバウムが受けたショック・3つの問題
ショックは3つのことがらに由来している。
1. 多くの精神科医は、このELIZAというコンピュータ・プログラムが成長して、将来ほぼ完全に自動化された形の精神医療が可能になることを真面目に信じていたこと。 人間の知能と人工知能との間に、一線が画されなくてはならない。もし、このような一線がないものなら、精神医療のコンピュータ化を唱道している人々は、人間が時計仕掛け以上の何物でもないと認められる日を予告しているにすぎない。もし、それが正しいのなら、これが現実となったときの結果を予測し、それについて熟慮することが急務である。
2. ELIZAと会話をする人々が、ごく短時間のうちに、コンピュータと深い感情的交流を持つようになり、しかも、断固としてコンピュータを人間と同等のものとして扱おうとすること。 人が機械との間に強い感情的つながりをもつこと自体は、それほど驚くべきことではない。人間の使う道具は、いわば身体の延長だからである。ここで重要なのは、道具をたくみに操るためには、われわれは道具のもつ種々の側面を、力学的あるいは知覚的習慣という形で自己の一部としなくてはならない点である。少なくとも、この意味において、道具は文字通り人間の一部となり、人間を変え、それによって、人間が自己に対して持つ感情的関係の基礎が変化する。人間が単に筋力の延長である機械よりも、知性や認識また感情の表明といった働きに直接関わっている機械に特別な感情を持つことは、当然であろう。人間のとてつもない適応能力が、私的な感情をコンピュータに打ちあけた理由の一部であろう。とすると、自らの意志で自分の世界に意味を与えることができる人間の地位が、機械によって侵されており、コンピュータはこの一般現象の最極端を代表しているにすぎない。したがって、機械とみなされている世界に、人間が自らの主体性を譲り渡すに至った意味を、より広い見地から問うことが重要になる。
3. ELIZAのプログラムがコンピュータによる自然言語処理という問題の、一般的解決となっているのだと広く信じられたこと。 最も深い意味において、人間が自らの自主性を強く信頼するどころか、単に受け入れることすら、やめた時点において、自主的な機械、つまり、長期間完全に機械の内部事象だけに依存して動く機械に頼り始めたことは、皮肉なことだといえよう。こういった種類の機械に人間が依存することが絶望や盲信以外の理由によるものなら、われわれは、これら機械にはいったい何ができ、またどのような仕組みで機械がこのような仕事をするのか、理解しなくてはならない。ほとんどの人はコンピュータのコの字も知らないから、自分の思考能力というモデルを使って、コンピュータの知的芸当を理解しようとする。そうすると、「人間にELIZAの真似はできても、ELIZA並の言語能力の人間が居るとは考えられない」といった単なる説明以上のことがなされてしまう。 大学という環境
これらの問題がワイゼンバウムの心に焼きついたのは、MITという科学技術の殿堂「科学と技術に関連したことがらに偏重」することを誇りとしている教育機関の教師として、技術的社会を濃縮した環境に居たからだとワイゼンバウムは考えている。そして、これらの問題を解決しなくては仕事ができなくなるであろうとワイゼンバウムは思った。
コンピュータについての論争
社会へのコンピュータの導入は、理解も制御もできない科学技術や技法に面した場合に人間の役割がどんな影響を受けるか、という問題の特別な場合として、扱うことが肝要である。
コンピュータに関する意見の対立
1. コンピュータは万能であり、コンピュータにできることは何でもコンピュータにやらせるべきであり、将来当然そういう状態になる。
2. コンピュータに任せても良いことがらには限度があるこの議論は、究極的に人間の思考は完全に計算可能かどうかが問題になる。
合理性即理論性の誤り
人間は常に、自らの存在に秩序、方向、意味をあたえることの原理を探し求めてきた。しかし、近代科学によって産み出された技術が、科学という抽象的システムを具現し現実のものとする以前に、宇宙内での人間の地位を定義してきた思想体系は律法的なものであった。近代科学の流れの一つの結果として、「生命のどの局面が形式化可能か」という中心課題は、「いかにしたら、またどんな形で、人間はその責任と義務を知ることができるか」という道徳的な問から、『人類は技術的属のどれに属するのか」という問に変形されてしまった。
ワイゼンバウムの主張
「機械の知能がどんなに高く作られようと、人間だけに許されるべき種類の思考というものがあるのだ。だから、社会秩序内でコンピュータが占めるに適した地位は何か、という社会的有意義な問題を私は提起したい。」
科学は麻薬
それは、科学なしでは生きられないから
真に人間的なジレンマのほとんどが、単なる論理的矛盾とみなされるに近い状態である。科学の成功そのものに酔って、われわれは合理性即論理性という等式を本質的に公理と変わらぬものとして受け入れた。そこから始まって、われわれは人間同士の対立そのものを否定し、本当に共存不可能な人間の利害関係や本質的に異なる価値観などによって引き起こされるいろいろな衝突の可能性をも否定した。そして、ついに人間的価値そのものさえも否定するに至ったのである。
価値観は錯覚か
Burrhus Frederic Skinnerが主張するように、人間の持つ価値観は錯覚に基づくものであるかもしれない。科学が与えることができる唯一の確実な知識は、形式化された体系がどう振舞うかという知識だからである。そして、この体系は人間自らが作り出したゲームである。科学的命題には、絶対的確実性など決してあり得ない。信じやすいか、信じがたいかがいえるだけである。そして、この信じやすいということは個人の心理についての言葉である。つまり、観察者個々に関してのみ意味を持つ言葉である。ある命題が信用できるということは、その命題を信じない自由を持つ個人が、自己の判断と(おそらく)直観に基づいて、これを信ずるに足るものとして受け入れ、信ずるということである。つまり、究極的に科学はこのように広範な人間的価値判断によって立っているのである。その科学の地位を失うことなく、科学を用いて、「人間の価値判断は幻覚にすぎない」と示すことはできない。 科学以外の価値体系
科学が麻薬だというのは、科学的知識が絶対確実なものであると一般に信じられ、それがあまりにも広くゆきわたった結果、常識的なドグマになり、科学以外の理解方法はほとんどすべて不当なものとされてしまったことにある。かつて、芸術、特に文学は知的滋養と理解の源と考えられていたが、今日、芸術は主に娯楽の為にあると考えられている。
最後のひとこと
合理性即論理性という等式を信ずることは、言語自身のもつ予言的能力を冒してしまった。われわれは数を数えることはできるが、数える価値のあるものは何か、またその理由は何かについて言う術を急速に忘れつつある。